ReVision: Scaling Computer-Use Agents via Temporal Visual Redundancy Reduction
ReVision:通过时间视觉冗余缩减扩展计算机使用代理
🧭 计算机使用代理 · 视觉冗余压缩 ★ 深度解读
University of British Columbia · Microsoft Research
去除连续 GUI 截图中的冗余视觉补丁,减少 token 开销的同时提升成功率,并让更长历史成为可能。
📌 工作参考价值(4 点)
- 视觉序列输入的去冗余思路:在需要处理连续图像(如商品展示流、用户生成内容的视频帧、广告创意迭代)的多模态推荐或 Agent 场景,可以借鉴 ReVision 的 patch‑level 冗余检测器,训练轻量 MLP 判断 patch 是否足够相似,从而减少重复 token,降低 LLM 推理成本。
- 冗余移除反而提升性能的发现:论文表明移除冗余视觉 token 会迫使模型更依赖历史中的有效信号,从而提升长程决策。这提示在推荐序列建模中,适当丢弃高度重复的特征可能有助于泛化,而不是一味保留全部信息。
- 延迟上下文饱和点:ReVision 通过压缩视觉 token 使模型可在相同上下文预算下纳入更多历史帧,持续获益。这对需要处理长用户行为序列的 agent 或推荐系统启示:通过特征压缩,可以延长有效历史的长度,而非简单地增加输入。
- 训练与推理一致的 token 过滤策略:在微调阶段就使用过滤后的视觉轨迹,使模型学会从历史帧中“补全”信息。这种训练技巧可迁移到其他多模态序列任务,确保模型适应推理时的压缩输入。